El miedo es útil: la IA y la robótica como amenaza para nuestra seguridad

Muchas personas hoy en día no comprenden los riesgos que conlleva el rápido avance de la inteligencia artificial y la robótica. Es momento de hacernos las preguntas difíciles: ¿Qué escenarios nos esperan en el futuro? ¿Cómo podemos prepararnos para ellos y cómo debemos responder?

El primer paso para abordar cualquier problema potencial es reconocerlo. Por eso me pregunto: ¿y si el control físico—o incluso la eliminación—llevados a cabo por robots impulsados por IA dejan de ser solo un concepto de ciencia ficción?

Me gustaría descartar esta pregunta como absurda e irrelevante, pero sé que ignorarla o minimizar su importancia no nos protegerá de los peligros del futuro ni de la pérdida de nuestra libertad personal.

Ya existen sistemas en los que la IA ayuda a gestionar drones, operaciones militares y análisis de comportamiento en tiempo real. Pero ¿y si mañana un dron está flotando frente a tu balcón, sin necesidad de que un humano tome la decisión? No tendrá dilemas morales, no sentirá remordimiento y no cuestionará una orden. Y eso suponiendo que siquiera necesite una orden. Si esta tecnología cae en las manos equivocadas, ¿quién la detendrá? ¿Realmente creemos que nuestras fuerzas del orden podrán protegernos de enjambres de pequeños objetos voladores autónomos cuando el desarrollo y la producción de esta tecnología se están volviendo cada vez más baratos y accesibles? Hoy, los terroristas deben arriesgar su libertad y su vida. La tecnología puede hacer que el terrorismo sea anónimo, llevándolo a una dimensión completamente nueva.

El siguiente paso es un mundo en el que estos sistemas y máquinas tomen decisiones por sí mismos. Donde la IA militar actúe de forma autónoma para determinar quién es una amenaza y quién no. ¿Qué pasa si alguien comete un error en la programación? ¿Qué pasa si ya no podemos apagar estos sistemas?

Los riesgos no terminan con las armas convencionales tal como las conocemos hoy. Los avances tecnológicos probablemente introducirán amenazas a nuestra libertad y seguridad de formas casi invisibles. Imagina robots microscópicos o sistemas capaces de desarrollar virus mortales.

¿Realmente sabemos lo que nos espera? No lo sabemos. ¿Sabemos cómo será el mundo dentro de 5, 10 o 20 años? Tampoco lo sabemos. Lo que sí vemos es un mundo que cambia a un ritmo sin precedentes, donde la incertidumbre se ha convertido en el tema dominante del futuro cercano. ¿No es eso razón suficiente para abordar este asunto con mayor precaución?

Puede que digas que soy demasiado pesimista, que exagero o que intento infundir miedo.

El miedo es útil.